AI가 생성한 저품질 콘텐츠가 인터넷에 범람함에 따라, AI 생성 여부를 탐지하는 스타트업 팡그램(Pangram)이 900만 달러(약 120억 원)의 투자를 유치했습니다. 이 회사는 99% 이상의 정확도를 자랑하는 차세대 텍스트 탐지 모델과 이미지 탐지 모델을 잇달아 출시하며 기업과 개인이 신뢰할 수 있는 정보를 판별할 수 있도록 돕고 있습니다. 이는 AI 오용으로 인한 사회적 혼란과 가짜 뉴스를 방지하는 데 필수적인 기술로 평가받습니다.
최근 아카이브(arXiv)에 제출되는 논문 중 약 32%가 AI가 작성한 것으로 탐지되며, 컴퓨터 과학 분야는 65%에 달하는 등 분야별 편차가 큽니다. 이 연구는 ChatGPT 이전 논문들의 오탐지율(False-positive)을 엄격하게 통제하여 AI 작성 비율의 실질적인 증가를 신뢰성 있게 측정했다는 점에서 중요합니다. AI 도구가 학술 연구 작성 과정에 얼마나 깊이 스며들었는지 보여주는 핵심 지표로 활용될 수 있습니다.
AI 탐지 업체 Pangram의 분석에 따르면, 250단어 이상의 소셜 미디어 게시물 4개 중 1개가 AI가 생성한 것으로 나타났습니다. 특히 링크드인이 전체 장문 게시물의 41%가 AI 작성으로 판별되며 압도적인 1위를 기록했고, 이는 링크드인이 AI 스팸 콘텐츠의 주요 온상이 되었음을 시사합니다.
메릴랜드 대학교와 구글 딥마인드의 연구진은 AI가 생성한 소설이 단순한 문체를 넘어 서사적 구조의 한계로 인해 인간의 창작물과 명확히 구분된다고 분석했습니다. 연구진은 문체가 아닌 플롯, 캐릭터, 시간적 구조 등 서사적 특징을 분석하는 도구인 '스토리스코프(StoryScope)'를 개발하여 AI 창작물을 탐지했습니다. 이는 단순한 텍스트 탐지를 넘어 AI가 구성하는 이야기의 근본적인 구조적 한계를 증명한다는 점에서 중요합니다.
AI 텍스트 탐지 스타트업 팽그램(Pangram)의 CEO는 LLM(Large Language Model)이 인간보다 문법이나 논리에 능할지는 몰라도, 주장하는 논리의 폭이 매우 좁고 정형화되어 있어 이를 통해 AI가 쓴 글을 구별해낸다고 밝혔습니다. 팽그램의 딥러닝 분류기는 블랙박스 형태로 작동하지만, AI가 문서를 구조화할 때 남기는 특정 패턴을 포착해 작동 방식의 완전한 이해와 무관하게 높은 정확도로 탐지해냅니다.
AI 생성 텍스트에서 '단순히 A일 뿐만 아니라 B이다'라는 특정 문장 구조와 대시(—) 기호의 사용이 급증하고 있습니다. 시장 조사에 따르면 기업 보도자료 및 실적 보고서에서 해당 표현의 사용 빈도가 최근 수년 새 4배 이상 폭증했으며, 이는 기업들의 AI 의존도가 얼마나 높아졌는지 보여주는 상징적인 지표로 평가되고 있습니다.